THE COMING WAVE

https://m.media-amazon.com/images/I/81pk17qnIcL._SL1500_.jpg https://www.amazon.co.jp/dp/B0DHKPCGCQ?tag=1000ch-22

来る波は人口知能と合成生物学

AI は素晴らしく有益であると同時に、そのパワフルさ故に倫理的なジレンマも孕んでいる。AI が人間の知性を再現すれば、人類はとてつもない変化に直面する。それは未曾有の機会だけでなく未曾有のリスクがある

「新テクノロジーを求めようが求めまいが、いずれにしろリスクは生じる。時間の経過とともに新テクノロジーの価格は下がり、広く拡散し、リスクが蓄積する。そうなれば、テクノ権威主義のディストピアか、それともオープンネスを保って破局へと向かうか、どちらかを避けながら隘路をうまく切り抜けることが難しくなる。だが、ここから撤退する選択肢はない。リスクはあるものの、来たるべき波がもたらす新テクノロジーは、私たちがこれまで以上に求めるものを与えてくれるからだ。これが私たちのジレンマの核心だ。」

AI が奪うのは人間の知的単純労働

「悲観論嫌悪の罠（pessimism-aversion trap）」と呼ぶことにした。悲観的な将来予想に向き合う恐怖感から、明るい可能性のみに目を向けてしまい、見当違いの分析をしてしまう罠にはまるのだ。

①本質的に汎用的でオムニユースで、②超進化しており、③非対称的な影響力があり、④ますます自律的

人類史における汎用技術は、農業や文字、青銅・鉄などの材料開発から活版印刷、電気、インターネットまで24。ただしその速度は加速度的に増加している

紀元前1000年までの1万年間に、人類は七つの汎用技術を手にした。1700年から1900年の間には、蒸気機関から電力に至る六つの汎用技術を得た。最近100年を見ても、汎用技術が七つ出ている。19世紀末に生まれた人は、馬車で旅をして、暖炉に薪をくべて暖をとって育ってきたが、晩年には飛行機で移動し、原子力発電によって暖められた家で暮らしたのだ。

テクノロジーの拡散は、需要の高まりとコストの減少というふたつの力によって起きる。このふたつがテクノロジーを改善し、安価にする。長い時間と難しい開発を経て、洞察からブレイクスルーが起き、ツールが生まれる。それらは相互に補完し合い、未来を牽引するような生産的な組み合わせが徐々に形成されていく。テクノロジーが普及し、安価になると、新しく安い応用的なテクノロジーやサービスが生まれる。ウーバーはスマホなしにはできないサービスだ。だが、ウーバーが使うスマホのＧＰＳ機能は人工衛星が可能にしたものだし、人工衛星が周回軌道に乗ったのはロケットがあったからだし、ロケットが打ち上げられたのは燃焼技術があったからだ。そして燃焼技術は言語と火がなければ完成を見なかった。

数十年あるいは一生をかけてしか実現できないような痛みを伴う行動の変化が求められるかもしれない。既得権益やこれまでの知識、そしてその両方を守るのに余念のない者たちと戦わなければならない。

文字は借金や相続、法律、税金、契約、所有権などのやりとりを記録する行政や会計のツールとして発明された。時計は時刻を生み、まずは修道院のような限られた空間の時間を、続いて中世後期の商業都市全体の時間を、やがて国家全体の時間を、さらには国をも越えた大きな社会的単位の時間を定めた＊21。活版印刷機は、方言が入り混じる状況から標準語を作り出し、国民国家の背後に存在する単一の集団、つまり「想像の共同体」を生み出す力となった＊22。変化しやすい口頭伝承に代わり、活字が地理や知識、歴史を固定化し、法律やイデオロギーを広く普及させた。この流れはラジオやテレビによって加速した。フランクリン・Ｄ・ルーズベルト大統領の「炉辺談話」をアメリカ国民が同時に聴いたり、ワールドカップを世界の人々が同時に見たりするなど、国内外の出来事の体験が共有されるようになった。

新型コロナウイルスには遺伝子操作された形跡が見られることに加え、武漢ウイルス研究所の研究実績から、コロナウイルスの分子生物学的特徴に至る状況証拠が次々に挙がっていることから、新型コロナウイルスは特定の研究所から漏出し、パンデミックが発生したのではないかと示唆されている

鐙が登場するまでは馬は輸送の役割しか持たなかったが、鐙によって騎馬が生まれ戦力に大きな変化をもたらした。鐙はシンプルなイノベーションだが、1000年続いた政治・経済・戦争・文化を大きく変えた。テクノロジーの小さな変化はパワーバランスを根本的に変えるが、十数年後の未来を正確に予想することは難しい

テクノロジーは社会構造、階層構造、支配体制を強化することもできれば、すべてをひっくり返すこともできる。結果として生じる混乱の中で、焦点を大きく変えない限り、多くの開かれた民主国家は制度基盤が徐々に衰退し、正当性や権威が弱体化する状況に追い込まれる。

人々はＡＩの進化を「１人の人間が実行する特定タスク」と「その特定タスクをＡＩがどこまで達成できるか」との比較で確認しようとする。研究者は翻訳や自律走行車などでＡＩがいかに超人的パフォーマンスを発揮するかを語る。だが、世界で最も強い力を持つのは、共通目標の達成に向けて連携した集団であることが見落とされている。組織も知能の一種だ

AI は良いことも悪いことも拡張する、力を増幅する

第二次世界大戦後の統治モデルは単に破綻に向かっているだけではない。社会的な自殺協定である」The end of the world is just beginning

今度数十年間に、繁栄と監視と大惨事の脅威という痛みを伴うトレードオフがさらに深刻化すると、私は確信している。最も良好な状態にある国家体制も、困難に見舞われることになるだろう。ホモ・テクノロジカスにとって究極の挑戦に直面しているのだ。

アルゴリズムバイアス、バイオリスク、ドローン戦争、ロボット工学の経済効果、量子コンピュータのプライバシーへの影響などについて、別々に議論を重ねるだけでは十分ではない。それでは原因と結果の相関性を完全に軽視していることになる。さまざまな議論を総合し、異なる側面のリスクをまとめ上げ、汎用革命に対する汎用コンセプトが必要なのだ

１９７０年代には、世界の大気中の二酸化炭素濃度は３００ｐｐｍ台前半だった。２０２２年には４２０ｐｐｍに達した。北京でもベルリンでもブルンジでも、石油メジャーも家族経営農場も、気候の変化を客観的に把握できる。データが状況を明確にしたのだ。